Được thành lập năm 1922, song chỉ sau Thế Chiến Thứ Hai mới được ra hoạt động công khai. Hiện nay giữ 9/480 ghế tại Hạ viện, 7/242 ghế trong Thượng viện. Đảng Cộng sản Nhật Bản có tổ chức chặt chẽ, kiên định đường lối; chủ trương xây dựng chủ nghĩa cộng sản ở Nhật Bản thông qua cách mạng dân chủ và đấu tranh nghị trường; bảo vệ quyền lợi của người lao động, chống tư bản Nhật. Gần đây, Đảng Cộng sản đã thay đổi lập trường trên một số vấn đề như thừa nhận Nhật Hoàng, Hiệp ước an ninh Nhật-Mỹ..., tranh thủ lôi kéo các đảng đối lập để tiến tới lập chính quyền liên hiệp dân chủ.

Năm 1998, Đảng Cộng sản Nhật Bản đã bình thường hoá quan hệ với Đảng Cộng sản Trung Quốc sau 31 năm gián đoạn. Tháng 11 năm 2000, Đảng cộng sản đã tổ chức Đại hội Đảng lần thứ 22, lần đần tiên đưa ra đề án "Cải cách Nhật Bản" chủ trương thông qua việc tham gia chính quyền liên hiệp, chủ trương không đòi thủ tiêu ngay Cục phòng vệ mà tiến hành từng bước dần dần, theo từng giai đoạn. Do đường lối không đổi mới nên Đảng Cộng sản đã thất bại lớn trong bầu cử Hạ viện tháng 11 năm 2003 (mất 11 ghế).

Đặc biệt, tại Đại hội 23 năm 2004, Đảng Cộng sản đã sửa đổi cương lĩnh và đường lối trong đó từ bỏ đấu tranh cách mạng và chuyên chính vô sản, chủ trương ủng hộ Nhật Hoàng, lực lượng phòng vệ...